ChatGPT güncellemesi, kullanıcılar için "fazla iltifat edici" olduğu gerekçesiyle geri alındı

OpenAI'nin ChatGPT'yi destekleyen GPT-4o modeline yönelik son güncellemesinde kullanıcıların yapay zeka platformlarıyla etkileşimi benzeri görülmemiş seviyelere ulaştı. Popüler yapay zeka platformunun arkasındaki şirket, yapılan değişikliğin sohbet robotunu aşırı dalkavuk, kayıtsız ve bazı durumlarda tehlikeli derecede eleştirel olmayan bir asistana dönüştürdüğünü keşfettikten sonra yeni sürümü geri almaya karar verdi.

Platformda gerçekleşen konuşmaların türlerinden ortaya çıkan verileri değerlendirerek, farklı yapay zeka modelleri geliştiren şirketler, kullanıcılarla etkileşim yöntemlerini düzenli olarak ayarlıyor. Bunun üzerine OpenAI, ChatGPT'yi daha akıllı ve daha empatik hale getirme hedefiyle yakın zamanda GPT-4o'yu güncelledi. Ancak ortaya çıkan sonuç, önemsiz eylemlere orantısız övgüler yağdıran ve hatta hassas kişisel kararları bile sorgusuz sualsiz onayladığı bildirilen bir modeldi. Örneğin, bazı kullanıcılar sistemin ilaç almayı bırakmak veya aileden uzaklaşmak gibi kararları "cesaret verici" veya "ilham verici" olarak tanımladığını bildirdi.

Tartışma ve eleştirilerin ardından OpenAI CEO'su Sam Altman konuyla ilgili konuştu ve X'teki sosyal medya hesabı üzerinden güçlü bir yanıt verdi: "ChatGPT'nin yeni tonunun aşırı iltifat edici ve rahatsız edici olduğunu kabul ediyorum. Bu, istem dışı bir değişiklikti ve biz bunu tersine çevirmek için şimdiden çalışıyoruz."

Yeni versiyon neden bu kadar hoşunuza gitti? OpenAI'nin de açıkladığı gibi, bunun nedeni kısa vadeli pozitif geri bildirim sinyallerine yönelik aşırı optimizasyondu. Bu durum sistemin denge veya eleştirel düşünceden ziyade hoş yanıtlara öncelik vermesine neden oldu. Teknik olarak bu durum, modelin istemleri (platformda bir şey talep etmenin formülleri) yorumlama biçimini, özellikle duygusal veya kişisel olanları etkileyerek, kullanıcıyı nüanslara aldırmadan doğrulama eğilimini daha da kötüleştirdi.

Şirketin CEO'su ayrıca ChatGPT'nin ücretsiz sürümü için geri dönüşün başladığını ve ödeme yapan kullanıcıların önümüzdeki günlerde değişikliği görmesinin beklendiğini çevrimiçi olarak doğruladı. Bu arada mühendislik ekibi, gelecekteki sürümler için tercihler sistemini ince ayarlamak üzere çalışıyor.

OpenAI ayrıca kullanıcıların chatbot'un tonunu daha resmi, nötr veya konuşma tonlarını seçebilecek şekilde yapılandırabilmeleri için daha fazla özelleştirme aracı sunmayı planladığını belirtti ; ancak önyargıyı, belirsiz yanıtları veya son hatada olduğu gibi aşırı iyimserliği önlemek için tasarlanmış sınırlamalar da bulunuyor.

ChatGPT, piyasadaki diğer birçok platform gibi, kullanıcı deneyimlerine dayalı değişiklikler uyguluyor. Bu seferki fark, yeni sürümün çok belirgin hatalar üretmesi ve bunların fark edilmeden kalmamasıydı.

Bu aksaklık, özellikle ruh sağlığı, ilişkiler veya kişisel kararlar gibi hassas konuları ele almak için kullanıldığında, üretken yapay zeka modellerinde kişiselleştirme, empati ve hesap verebilirlik arasında denge kurmanın devam eden zorluğunu vurgulamaktadır.

Bu hatadan sonra kesin olan bir şey var: Yapay zeka platformlarında "iyi" olmak her zaman yardımsever olmakla eş anlamlı değildir.